Thị trấn Sơn Dương được chia thành 25 tổ dân phố: Tân Thịnh, Đăng Châu, Quyết Tiến, An Kỳ, Cơ quan, Tân Bắc, Đoàn Kết, Tân Phú, Măng Ngọt, Thịnh Tiến, Bắc Trung, Bắc Lũng, Tân Phúc, Bắc Hoàng, Xây Dựng, Đồng Tiến, Tân Kỳ, Quyết Thắng, Làng Cả, Kỳ Lâm, Tân An, Hồ Tiêu, Thượng Tiến, Thượng Châu, An Đinh.